Hình ảnh kỵ binh xuất hiện sớm nhất trong huyền thoại Việt Nam là Thánh Gióng: đầu đội nón sắt, tay cầm gậy sắt, cưỡi ngựa sắt ra trận đánh giặc.

Nỗ lực xây dựng lực lượng kỵ binh được ghi chép sớm nhất trong sử sách Việt Nam là dưới triều nhà Lý. Năm 1170, nhà vua cho xây Xạ đình (trường bắn) ở Nam Hoàng Thành. Ngoài học kinh vở, binh pháp, 1 nội dung bắt buộc trong hệ thống giáo dục cho con em quý tộc thời Lý là luyện tập cưỡi ngựa bắn cung. Tập tục này trở thành chuẩn mực cho các triều đại về sau. Trong các kỳ thi tiến sĩ võ, ban võ nghệ đầu tiên được thao diễn bao giờ cũng là cưỡi ngựa. Thời Lê Thánh Tông, trong 66 Ty ở Kinh đô, có 7 Ty cung nỏ, trong đó có Ty Kỵ Xạ, Ty Du Nỗ, Tráng Nỗ, Kính Nỗ, Thần Tý. Trong 51 Vệ ở kinh đô, có Vệ Kỵ Xạ chia làm 5 sở, lại có 4 vệ Mã Bế.[16] Mỗi vệ có 20 đội, mỗi đội 20 người,vậy chỉ riêng Vệ kỵ xạ ở kinh thành bao gồm 2000 quân cưỡi ngựa bắn cung.[17] Khi hỏa khí xuất hiện, kỵ xạ cũng dần dần mai một bởi hỏa khí dễ sử dụng, dễ chế tạo và có sức công phá vượt trội. Lê Quý Đôn ghi lại rằng nhà Lê Trung Hưng từ năm 1724 trở về sau vẫn còn có môn cưỡi ngựa bắn cung trong thi Bác Cử.[18] Nhưng trong Thượng Kinh Phong Vật Chí, ông cho biết thời đại ông người ta đã bãi bỏ cưỡi ngựa bắn cung, và thay bằng nội dung cưỡi ngựa bắn súng trong khoa cử.[19]

Trong Đại Việt sử ký toàn thư, Bản kỷ tục biên ghi nhận thời chiến tranh Lê-Mạc, quân nhà Lê trung hưng có lực lượng kỵ binh khá mạnh. Thời Lê Thế Tông, tiết chế Trường quốc công Trịnh Tùng từng sử dụng 400 quân thiết kỵ làm trợ chiến để đẩy lùi cuộc xâm lấn của quân Mạc. Năm 1592 ông huy động tới 5000 kỵ binh nặng, trang bị giáp sắt cho cả ngựa để vây hãm Đông Kinh của nhà Mạc.[20]

William Dampier, một nhà du hành đến Đàng Ngoài năm 1688 có ghi nhận là quân đội vua Lê-chúa Trịnh có chừng 70.000-80.000 quân thường trực, trong số đó hầu hết là bộ binh trang bị súng tay, ở kinh thành chúa có thường trực voi chiến 200 thớt, ngựa chiến 300 con, nuôi béo khỏe. Ngựa trung bình cao 140 cm đến vai, kích thước tương đương các nòi ngựa dùng để cưỡi hiện đại.[21]

Một ghi chép của người phương Tây về lực lượng quân sự Đàng Ngoài dưới thời Thanh Đô vương Trịnh Tráng cho rằng vào năm 1640 nhà chúa có dưới trướng hơn ba mươi vạn bộ binh, hai ngàn thớt voi trận và một trăm lẻ hai ngàn quân kỵ(!).[22] Con số này đáng nghi vấn. Tuy nhiên ghi chép này cũng cho người đời sau thấy được ấn tượng của những người ngoại quốc về 1 quân đội Đại Việt hùng cường toàn diện, từ thủy binh, bộ binh đến kỵ, tượng binh.